Văn phòng Chính phủ tiền thân là Văn phòng Chủ tịch Chính phủ được thành lập ngày 28/08/1945, trụ sở ban đầu được đặt tại 12 Ngô Quyền (Bắc Bộ Phủ trước đây). Văn phòng Chủ tịch Chính phủ có nhiệm vụ là cơ quan tham mưu cho Chính phủ với nhiệm vụ soạn thảo trình Chủ tịch Chính phủ bàn hành các văn bản. Đứng đầu Văn phòng Chủ tịch Chính phủ là hàm Thứ trưởng, Phạm Ngọc Thạch giữ chức vụ đầu tiên.

Cuộc kháng chiến chống thực dân Pháp nổ ra, Chính phủ rời văn phòng về Việt Bắc, trong giai đoạn này Văn phòng Chủ tịch Chính phủ mang nhiều mật danh khác nhau Trung đội 555, Ban Thông tin tháng Tám, Ban Kiểm lâm 13, Ban Kiểm tra 12,... Đứng đầu Văn phòng trong giai đoạn này là Chánh Văn phòng, hoặc Tổng thư ký.

Từ 1954-1980, Văn phòng Chủ tịch Chính phủ được đổi tên thành Văn phòng Phủ Thủ tướng, đứng đầu là Bộ trưởng Phủ Thủ tướng, sau này là Bộ trưởng Chủ nhiệm Văn phòng Phủ Thủ tướng.

Từ 1981-1987, có 2 chức vụ gần giống nhau là Bộ trưởng, Tổng Thư ký Hội đồng Bộ trưởng (tương đương với Bộ trưởng Phủ Thủ tướng cũ) và Chủ nhiệm Văn phòng Hội đồng Bộ trưởng. Trong hầu hết thời gian, 2 chức vụ này do 1 người kiêm nhiệm. Đến năm 1987 thì sáp nhập 2 chức vụ này làm một là Chủ nhiệm Văn phòng Phủ Thủ tướng.

Từ 1980-1992, Văn phòng Phủ Thủ tướng được đổi tên Văn phòng Hội đồng Bộ trưởng, đứng đầu là Chủ nhiệm Văn phòng Hội đồng Bộ trưởng và Tổng Thư ký Văn phòng Hội đồng Bộ trưởng.

Từ 1992-nay, Văn phòng Hội đồng Bộ trưởng được đổi tên thành Văn phòng Chính phủ, đứng đầu là Bộ trưởng, Chủ nhiệm Văn phòng Chính phủ.